Eo biển được hình thành khoảng 11.000 năm trước vào giai đoạn cuối của thời kỳ băng hà Wisconsin.[2] Sự thay đổi rõ rệt trong hình dạng của eo biển giữa phần hạ nguồn và thượng nguồn là bằng chứng cho hoạt động băng hà này. Phần thượng nguồn (từ Long Island Sound đến Hell Gate) phần lớn chạy vuông góc với chuyển động của băng; phần này rộng, uốn khúc và có vịnh hẹp sâu ở hai bờ được tạo nên bởi sự chuyển động của dòng sông băng. Phần hạ nguồn (từ Hell Gate đến Vịnh New York) chạy theo hướng bắc-nam song song với chuyển động của băng. Phần này hẹp hơn nhiều với các bờ thẳng. Vịnh trên tồn tại (hoặc đã tồn tại trước khi bị lấp đầy bởi hoạt động của con người) phần lớn đều rộng và nông.